파인튜닝
파인튜닝이란?
- 사전 훈련된 모델을 특정 작업에 맞추어 추가로 학습하는 것
- 사전 훈련된 모델을 가져와서 특정 분야의 소규모 데이터로 학습시켜 나만의 전문 AI모델을 만드는 과정
왜 파인튜닝을 할까?
- 비용과 시간 절약
- 모델을 처음부터 학습시키는 것은 많은 비용과 시간이 발생함
- 따라서 이미 완성된 모델을 기반으로 하므로 적은 비용, 시간으로 높은 성능 유도 가능
- 전문성 확보
- 범용 AI 모델은 많은 것을 알지만 특정 분야에 대해서는 깊이가 부족할 수 있음
- 파인튜닝을 통해 특정 목적에 맞는 전문가로 만드는 것이 가능함
- 원하는 말투나 스타일 구현
- AI가 특정 캐릭터의 말투로 일관성 있게 대답하도록 만들 수 있음
| 구분 | 처음부터 학습 (Training from Scratch) | 파인튜닝 (Fine-tuning) | 프롬프트 엔지니어링 (Prompt Engineering) |
|---|---|---|---|
| 개념 | 수십억 개의 데이터로 AI 모델을 맨 처음부터 만듦 | 이미 만들어진 모델을 내 데이터로 살짝 수정함 | 이미 만들어진 모델을 수정하지 않고, 지시어(프롬프트)만 잘 만들어서 원하는 결과를 유도함 |
| 비유 | 밀가루 반죽부터 시작해서 완전히 새로운 빵을 만듦 | 사온 식빵에 내가 좋아하는 잼을 발라 구워 먹음 | 빵집에 가서 "딸기잼 많이 발라주시고, 가장자리는 잘라주세요" 라고 구체적으로 주문함 |
| AI 모델 변경 | O (새 모델 생성) | O (기존 모델이 수정/업데이트됨) | X (모델은 그대로) |
| 비용/시간 | 매우 높음 | 낮음 ~ 중간 | 거의 없음 |